基于TensorFlow的鸢尾花数据集神经网络模型深度解析

篇首语：本文由编程笔记#小编为大家整理，主要介绍了深度学习框架Tensorflow模型分析相关的知识，希望对你有一定的参考价值。

目录

• 1 快速入门模型
• 2 相关的库的导入
• 3 数据展示和划分
• 4 sklearn实现
• 5 tf.keras实现
• 6 总结

机器学习鸢尾花数据集分析:https://blog.csdn.net/ZGL_cyy/article/details/126924746
机器学习k近邻算法鸢尾花种类预测:https://blog.csdn.net/ZGL_cyy/article/details/126966990

我们通过鸢尾花分类案例&＃xff0c;来给大家介绍tf.keras的基本使用流程。tf.keras使用tensorflow中的高级接口&＃xff0c;我们调用它即可完成&＃xff1a;

1. 导入和解析数据集
2. 构建模型
3. 使用样本数据训练该模型
4. 评估模型的效果。

由于与scikit -learn的相似性&＃xff0c;接下来我们将通过将Keras与scikit -learn进行比较&＃xff0c;介绍tf.Keras的相关使用方法。

在这里使用sklearn和tf.keras完成鸢尾花分类&＃xff0c;导入相关的工具包&＃xff1a;

# 绘图
import seaborn as sns
# 数值计算
import numpy as np
# sklearn中的相关工具
# 划分训练集和测试集
from sklearn.model_selection import train_test_split
# 逻辑回归
from sklearn.linear_model import LogisticRegressionCV
# tf.keras中使用的相关工具
# 用于模型搭建
from tensorflow.keras.models import Sequential
# 构建模型的层和激活方法
from tensorflow.keras.layers import Dense, Activation
# 数据处理的辅助工具
from tensorflow.keras import utils

3 数据展示和划分

利用seborn导入相关的数据&＃xff0c;iris数据以dataFrame的方式在seaborn进行存储&＃xff0c;我们读取后并进行展示&＃xff1a;

# 读取数据
iris &＃61; sns.load_dataset("iris")
# 展示数据的前五行
iris.head()


另外&＃xff0c;利用seaborn中pairplot函数探索数据特征间的关系&＃xff1a;

# 将数据之间的关系进行可视化
sns.pairplot(iris, hue&＃61;&＃39;species&＃39;)


将数据划分为训练集和测试集&＃xff1a;从iris dataframe中提取原始数据&＃xff0c;将花瓣和萼片数据保存在数组X中&＃xff0c;标签保存在相应的数组y中&＃xff1a;

# 花瓣和花萼的数据
X &＃61; iris.values[:, :4]
# 标签值
y &＃61; iris.values[:, 4]


利用train_test_split完成数据集划分&＃xff1a;

# 将数据集划分为训练集和测试集
train_X, test_X, train_y, test_y &＃61; train_test_split(X, y, train_size&＃61;0.5, test_size&＃61;0.5, random_state&＃61;0)


接下来&＃xff0c;我们就可以使用sklearn和tf.keras来完成预测

利用逻辑回归的分类器&＃xff0c;并使用交叉验证的方法来选择最优的超参数&＃xff0c;实例化LogisticRegressionCV分类器&＃xff0c;并使用fit方法进行训练&＃xff1a;

# 实例化分类器
lr &＃61; LogisticRegressionCV()
# 训练
lr.fit(train_X, train_y)


利用训练好的分类器进行预测&＃xff0c;并计算准确率&＃xff1a;

# 计算准确率并进行打印
print("Accuracy &＃61; :.2f".format(lr.score(test_X, test_y)))


逻辑回归的准确率为&＃xff1a;

Accuracy &＃61; 0.93

5 tf.keras实现

在sklearn中我们只要实例化分类器并利用fit方法进行训练&＃xff0c;最后衡量它的性能就可以了&＃xff0c;那在tf.keras中与在sklearn非常相似&＃xff0c;不同的是&＃xff1a;

• 构建分类器时需要进行模型搭建
• 数据采集时&＃xff0c;sklearn可以接收字符串型的标签&＃xff0c;如&＃xff1a;“setosa”&＃xff0c;但是在tf.keras中需要对标签值进行热编码&＃xff0c;如下所示&＃xff1a;

有很多方法可以实现热编码&＃xff0c;比如pandas中的get_dummies(),在这里我们使用tf.keras中的方法进行热编码&＃xff1a;

# 进行热编码
def one_hot_encode_object_array(arr):
# 去重获取全部的类别
uniques, ids &＃61; np.unique(arr, return_inverse&＃61;True)
# 返回热编码的结果
return utils.to_categorical(ids, len(uniques))


接下来对标签值进行热编码&＃xff1a;

# 训练集热编码
train_y_ohe &＃61; one_hot_encode_object_array(train_y)
# 测试集热编码
test_y_ohe &＃61; one_hot_encode_object_array(test_y)


在sklearn中&＃xff0c;模型都是现成的。tf.Keras是一个神经网络库,我们需要根据数据和标签值构建神经网络。神经网络可以发现特征与标签之间的复杂关系。神经网络是一个高度结构化的图&＃xff0c;其中包含一个或多个隐藏层。每个隐藏层都包含一个或多个神经元。神经网络有多种类别&＃xff0c;该程序使用的是密集型神经网络&＃xff0c;也称为全连接神经网络&＃xff1a;一个层中的神经元将从上一层中的每个神经元获取输入连接。例如&＃xff0c;图 2 显示了一个密集型神经网络&＃xff0c;其中包含 1 个输入层、2 个隐藏层以及 1 个输出层&＃xff0c;如下图所示&＃xff1a;

上图 中的模型经过训练并馈送未标记的样本时&＃xff0c;它会产生 3 个预测结果&＃xff1a;相应鸢尾花属于指定品种的可能性。对于该示例&＃xff0c;输出预测结果的总和是 1.0。该预测结果分解如下&＃xff1a;山鸢尾为 0.02&＃xff0c;变色鸢尾为 0.95&＃xff0c;维吉尼亚鸢尾为 0.03。这意味着该模型预测某个无标签鸢尾花样本是变色鸢尾的概率为 95&＃xff05;。

TensorFlow tf.keras API 是创建模型和层的首选方式。通过该 API&＃xff0c;您可以轻松地构建模型并进行实验&＃xff0c;而将所有部分连接在一起的复杂工作则由 Keras 处理。

tf.keras.Sequential 模型是层的线性堆叠。该模型的构造函数会采用一系列层实例&＃xff1b;在本示例中&＃xff0c;采用的是 2 个密集层&＃xff08;分别包含 10 个节点&＃xff09;以及 1 个输出层&＃xff08;包含 3 个代表标签预测的节点&＃xff09;。第一个层的 input_shape 参数对应该数据集中的特征数量&＃xff1a;

# 利用sequential方式构建模型
model &＃61; Sequential([
# 隐藏层1&＃xff0c;激活函数是relu,输入大小有input_shape指定
Dense(10, activation&＃61;"relu", input_shape&＃61;(4,)),
# 隐藏层2&＃xff0c;激活函数是relu
Dense(10, activation&＃61;"relu"),
# 输出层
Dense(3,activation&＃61;"softmax")
])


通过model.summary可以查看模型的架构&＃xff1a;

Model: "sequential"
_________________________________________________________________
Layer (type) Output Shape Param #
&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;
dense (Dense) (None, 10) 50
_________________________________________________________________
dense_1 (Dense) (None, 10) 110
_________________________________________________________________
dense_2 (Dense) (None, 3) 33
&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;
Total params: 193
Trainable params: 193
Non-trainable params: 0
_________________________________________________________________


激活函数可决定层中每个节点的输出形状。这些非线性关系很重要&＃xff0c;如果没有它们&＃xff0c;模型将等同于单个层。激活函数有很多&＃xff0c;但隐藏层通常使用 ReLU。

隐藏层和神经元的理想数量取决于问题和数据集。与机器学习的多个方面一样&＃xff0c;选择最佳的神经网络形状需要一定的知识水平和实验基础。一般来说&＃xff0c;增加隐藏层和神经元的数量通常会产生更强大的模型&＃xff0c;而这需要更多数据才能有效地进行训练。

在训练和评估阶段&＃xff0c;我们都需要计算模型的损失。这样可以衡量模型的预测结果与预期标签有多大偏差&＃xff0c;也就是说&＃xff0c;模型的效果有多差。我们希望尽可能减小或优化这个值&＃xff0c;所以我们设置优化策略和损失函数&＃xff0c;以及模型精度的计算方法&＃xff1a;

# 设置模型的相关参数&＃xff1a;优化器&＃xff0c;损失函数和评价指标
model.compile(optimizer&＃61;&＃39;adam&＃39;, loss&＃61;&＃39;categorical_crossentropy&＃39;, metrics&＃61;["accuracy"])


接下来与在sklearn中相同&＃xff0c;分别调用fit和predict方法进行预测即可。

# 模型训练&＃xff1a;epochs,训练样本送入到网络中的次数&＃xff0c;batch_size:每次训练的送入到网络中的样本个数
model.fit(train_X, train_y_ohe, epochs&＃61;10, batch_size&＃61;1, verbose&＃61;1);


上述代码完成的是&＃xff1a;

1. 迭代每个epoch。通过一次数据集即为一个epoch。
2. 在一个epoch中&＃xff0c;遍历训练 Dataset 中的每个样本&＃xff0c;并获取样本的特征 (x) 和标签 (y)。
3. 根据样本的特征进行预测&＃xff0c;并比较预测结果和标签。衡量预测结果的不准确性&＃xff0c;并使用所得的值计算模型的损失和梯度。
4. 使用 optimizer 更新模型的变量。
5. 对每个epoch重复执行以上步骤&＃xff0c;直到模型训练完成。

训练过程展示如下&＃xff1a;

Epoch 1/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 616us/step - loss: 0.0585 - accuracy: 0.9733
Epoch 2/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 535us/step - loss: 0.0541 - accuracy: 0.9867
Epoch 3/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 545us/step - loss: 0.0650 - accuracy: 0.9733
Epoch 4/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 542us/step - loss: 0.0865 - accuracy: 0.9733
Epoch 5/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 510us/step - loss: 0.0607 - accuracy: 0.9733
Epoch 6/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 659us/step - loss: 0.0735 - accuracy: 0.9733
Epoch 7/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 497us/step - loss: 0.0691 - accuracy: 0.9600
Epoch 8/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 497us/step - loss: 0.0724 - accuracy: 0.9733
Epoch 9/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 493us/step - loss: 0.0645 - accuracy: 0.9600
Epoch 10/10
75/75 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 482us/step - loss: 0.0660 - accuracy: 0.9867


与sklearn中不同&＃xff0c;对训练好的模型进行评估时&＃xff0c;与sklearn.score方法对应的是tf.keras.evaluate()方法&＃xff0c;返回的是损失函数和在compile模型时要求的指标:

# 计算模型的损失和准确率
loss, accuracy &＃61; model.evaluate(test_X, test_y_ohe, verbose&＃61;1)
print("Accuracy &＃61; :.2f".format(accuracy))


分类器的准确率为&＃xff1a;

3/3 [&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;] - 0s 591us/step - loss: 0.1031 - accuracy: 0.9733
Accuracy &＃61; 0.97

6 总结

1. 使用tf.keras进行分类时的主要流程&＃xff1a;数据处理-构建模型-模型训练-模型验证
2. tf.keras中构建模型可通过squential()来实现并利用.fit()方法进行训练
3. 使用evaluate()方法计算损失函数和准确率